1. 什么是殘差（residual）？ 　　“殘差在數理統計中是指實際觀察值與估計值（擬合值）之間的差。”“如果回歸模型正確的話， 我們可以將殘差看作誤差的觀測值。” 　　更准確地，假設我們想要找 ...

目錄 梯度下降法更新參數 Adam 更新參數 Adam + 學習率衰減 Adam 衰減的學習率 References 本文先介紹一 ...

訓練一個神經網絡 能讓她認得我 閱讀原文 這段時間正在學習tensorflow的卷積神經網絡部分，為了對卷積神經網絡能夠有一個更深的了解，自己動手實現一個例程是比較好的方式，所以就選了一 ...

舉例1： 　　比如輸入是一個32x32x3的圖像，3表示RGB三通道，每個filter/kernel是5x5x3，一個卷積核產生一個feature map，下圖中，有6個5x5x3的卷積核，故輸出6 ...

摘要 卷積網絡在特征分層領域是非常強大的視覺模型。我們證明了經過端到端、像素到像素訓練的卷積網絡超過語義分割中最先進的技術。我們的核心觀點是建立“全卷積”網絡，輸入任意尺寸，經過有效的推理和學習 ...

目錄 1. 用滑動平均估計局部均值2. TensorFlow中使用滑動平均來更新變量（參數）3. 滑動平均為什么在測試過程中被使用？ 1. 用滑動平均估計局部均值 　　滑動平均(exponent ...

　　“Xavier”初始化方法是一種很有效的神經網絡初始化方法，方法來源於2010年的一篇論文《Understanding the difficulty of training deep ...

目錄 貝葉斯公式 什么是貝葉斯深度學習？ 貝葉斯深度學習如何進行預測？ 貝葉斯深度學習如何進行訓練？ 貝葉斯深度學習和深度學習有什么區別？ 貝葉斯神經網絡（ ...

I optimizer.minimize(loss, var_list) 我們都知道，TensorFlow為我們提供了豐富的優化函數，例如GradientDescentOptimizer。這個方法會 ...

　　經典卷積神經網絡的結構一般滿足如下表達式： 輸出層 -> （卷積層+ -> 池化層？）+ -> 全連接層+ 上述公式中，“+”表示一個或者多個，“？”表示一個或者零個，如“ ...